在本文中,我们提出了一个基于树张量网状状态的密度估计框架。所提出的方法包括使用Chow-Liu算法确定树拓扑,并获得线性系统通过草图技术定义张量 - 网络组件的线性系统。开发了草图功能的新颖选择,以考虑包含循环的图形模型。提供样品复杂性保证,并通过数值实验进一步证实。
translated by 谷歌翻译
在操作研究中的强大动态资源分配中,我们研究了\ textit {在线学习运输}(OLT)问题,而决策变量是概率措施,一个无限维度的对象。我们通过\ citet {ambrosio_2005}在Wasserstein梯度流中最初研究的洞察力,在线学习,最佳传输和部分微分方程之间进行连接。这使我们能够将标准的在线学习框架扩展到无限维度设置。基于我们的框架,我们得出了一种新的方法,称为\ textIt {最小选择或探索(MSOE)算法},以使用均值场近似和离散化技术来解决OLT问题。在位移凸设置中,基于我们方法的主要理论信息是,随着时间的流逝,最小化运输成本(通过最小选择原理)确保了最佳的累积遗憾上限。在算法方面,我们的MSOE算法适用于位移凸设置,使最佳传输的数学理论实际上与动态资源分配中常见的非凸面设置相关。
translated by 谷歌翻译
本文介绍了一种新的基于仿真的推理程序,以对访问I.I.D. \ samples的多维概率分布进行建模和样本,从而规避明确建模密度函数或设计Markov Chain Monte Carlo的通常方法。我们提出了一个称为可逆的Gromov-monge(RGM)距离的新概念的距离和同构的动机,并研究了RGM如何用于设计新的转换样本,以执行基于模拟的推断。我们的RGM采样器还可以估计两个异质度量度量空间之间的最佳对齐$(\ cx,\ mu,c _ {\ cx})$和$(\ cy,\ cy,\ nu,c _ {\ cy})$从经验数据集中,估计的地图大约将一个量度$ \ mu $推向另一个$ \ nu $,反之亦然。我们研究了RGM距离的分析特性,并在轻度条件下得出RGM等于经典的Gromov-Wasserstein距离。奇怪的是,与Brenier的两极分解结合了连接,我们表明RGM采样器以$ C _ {\ cx} $和$ C _ {\ cy} $的正确选择诱导了强度同构的偏见。研究了有关诱导采样器的收敛,表示和优化问题的统计率。还展示了展示RGM采样器有效性的合成和现实示例。
translated by 谷歌翻译
Universal Domain Adaptation aims to transfer the knowledge between the datasets by handling two shifts: domain-shift and category-shift. The main challenge is correctly distinguishing the unknown target samples while adapting the distribution of known class knowledge from source to target. Most existing methods approach this problem by first training the target adapted known classifier and then relying on the single threshold to distinguish unknown target samples. However, this simple threshold-based approach prevents the model from considering the underlying complexities existing between the known and unknown samples in the high-dimensional feature space. In this paper, we propose a new approach in which we use two sets of feature points, namely dual Classifiers for Prototypes and Reciprocals (CPR). Our key idea is to associate each prototype with corresponding known class features while pushing the reciprocals apart from these prototypes to locate them in the potential unknown feature space. The target samples are then classified as unknown if they fall near any reciprocals at test time. To successfully train our framework, we collect the partial, confident target samples that are classified as known or unknown through on our proposed multi-criteria selection. We then additionally apply the entropy loss regularization to them. For further adaptation, we also apply standard consistency regularization that matches the predictions of two different views of the input to make more compact target feature space. We evaluate our proposal, CPR, on three standard benchmarks and achieve comparable or new state-of-the-art results. We also provide extensive ablation experiments to verify our main design choices in our framework.
translated by 谷歌翻译
Recently, AutoFlow has shown promising results on learning a training set for optical flow, but requires ground truth labels in the target domain to compute its search metric. Observing a strong correlation between the ground truth search metric and self-supervised losses, we introduce self-supervised AutoFlow to handle real-world videos without ground truth labels. Using self-supervised loss as the search metric, our self-supervised AutoFlow performs on par with AutoFlow on Sintel and KITTI where ground truth is available, and performs better on the real-world DAVIS dataset. We further explore using self-supervised AutoFlow in the (semi-)supervised setting and obtain competitive results against the state of the art.
translated by 谷歌翻译
在本文中,我们通过添加Laplacian Pyramid(LP)概念来开发Laplacian类似于类似的自动编码器(LPAE),以广泛用于分析信号处理中的图像。LPAE将图像分解为近似图像和编码器部分中的详细图像,然后尝试使用两个组件在解码器部分中重建原始图像。我们使用LPAE进行分类和超分辨率领域的实验。使用详细图像和较小尺寸的近似图像作为分类网络的输入,我们的LPAE使模型更轻。此外,我们表明连接分类网络的性能仍然很高。在超分辨率区域中,我们表明解码器部分通过设置类似于LP的结构来获得高质量的重建图像。因此,LPAE通过组合自动编码器的解码器和超分辨率网络来改善原始结果。
translated by 谷歌翻译
尽管电子保健记录(EHR)丰富,但其异质性限制了医疗数据在构建预测模型中的利用。为了应对这一挑战,我们提出了通用医疗预测框架(UNIHPF),该框架不需要医疗领域知识和对多个预测任务的最小预处理。实验结果表明,UNIHPF能够构建可以从不同EHR系统处理任何形式的医疗数据的大规模EHR模型。我们的框架在多源学习任务(包括转移和汇总学习)中大大优于基线模型,同时在单个医疗数据集中接受培训时也会显示出可比的结果。为了凭经验证明我们工作的功效,我们使用各种数据集,模型结构和任务进行了广泛的实验。我们认为,我们的发现可以为对EHR的多源学习提供进一步研究提供有益的见解。
translated by 谷歌翻译
开放的复合域适应(OCDA)将目标域视为多个未知同质子域的化合物。 OCDA的目的是最大程度地减少标记的源域和未标记的复合目标域之间的域间隙,这使对未见域的模型概括有益。当前用于语义分割方法的OCDA采用手动域分离,并采用单个模型同时适应所有目标子域。但是,适应目标子域可能会阻碍该模型适应其他不同目标子域,从而导致性能有限。在这项工作中,我们引入了一个带有双向光度混合的多教学框架,以分别适应每个目标子域。首先,我们提出一个自动域分离,以找到最佳的子域数。在此基础上,我们提出了一个多教学框架,在该框架中,每个教师模型都使用双向光度混合来适应一个目标子域。此外,我们进行自适应蒸馏以学习学生模型并应用一致性正规化以改善学生的概括。基准数据集上的实验结果显示了针对复合域和开放域对现有最新方法的拟议方法的功效。
translated by 谷歌翻译
神经影像技术的进步为我们提供了了解人类思维方式的新颖见解。功能磁共振成像(fMRI)是最流行和广泛使用的神经影像学技术,并且对基于fMRI的个体差异标记越来越感兴趣。但是,由于其高成本和从包括儿童和婴儿在内的特定人群获得的难度,其效用通常受到限制。 fMRI标记的替代标记或神经相关性将具有重要的实际含义,但是我们对fMRI标记的独立预测指标很少。在这里,使用机器学习(ML)模型和数据增强,我们从功能性近红外光谱学(FNIRS)的多元模式(一种便携式且相对便宜的光学神经图像技术)中预测了人类认知的良好fMRI标记。我们招募了50名人类参与者,他们执行了两项认知任务(停止信号任务和概率逆转学习任务),而在总共两次访问中的每个访问中,用FNIRS或fMRI测量了神经激活。使用ML模型和数据增强,我们可以预测来自前额叶皮层中48通道FNIRS激活的响应抑制或预测误差信号的良好fMRI标记。这些结果表明,FNIRS可能会提供fMRI激活的替代标记,这将扩大我们对包括婴儿在内的各种人群的理解。
translated by 谷歌翻译
在本文中,我们介绍了一种草图算法,用于构建其样品概率密度的张量列车表示。我们的方法偏离了基于标准的递归SVD构建张量列车的程序。取而代之的是,我们为单个张量火车芯制定并求解一系列小型线性系统。这种方法可以避免维数的诅咒,从而威胁恢复问题的算法和样本复杂性。具体而言,对于马尔可夫模型,我们证明可以使用相对于尺寸恒定的样品复杂性回收张量芯。最后,我们通过几个数值实验说明了该方法的性能。
translated by 谷歌翻译